基本收入·隐私权 ·主体性——人工智能与后人类时代（上）
《读书》编者按：
随着“新人文精神”讨论的深入，人工智能与后人类时代，是不能绕过的议题。《读书》编辑部组织部分学者参加了讨论，触及的问题范畴比较广，逐步打开视野，并深入探讨。本期我们先发表上篇，涉及基本收入、隐私权和主体性等问题。这关系就业、伦理及人类前途，也是当下的热门话题。
基本收入·隐私权 ·主体性
——人工智能与后人类时代（上）
文 | 罗岗、戴锦华 等
（《读书》2017年10期新刊）
罗岗：
作为人文知识分子，虽然当代社会的“人文性”是我们安身立命之所在，但“人文性”并非一种可以固守的立场，也不是具有某种神秘起源的“精神”，更不是现在被“鸡汤化”的所谓“心性”，而是必须将“人文性”理解为与社会生产条件特别是物质生产条件密切相关，并且由相应的社会状况生产出来的“难题性”，理解为对“物与物的关系”背后的“人与人的关系”的自觉把握，理解为对“科学技术”任何新发展的“社会使用”的严格追问。
具体而言，今天世界发生的深刻变化，一是以互联网为核心的“新技术”对人类固有的生产方式、日常生活和意识形态产生了极大的冲击；二是中国经济的“崛起”与“转型”以及相关的政治、社会和文化效应，也正逐渐挑战和改写固有的世界秩序。两者相互作用，“新技术”革命叠加在中国的“崛起”与“转型”上，势必造成更为复杂的状况，譬如中国的互联网用户人数世界第一，尤其是与移动互联网联系在一起的智能手机用户人数世界最多，也使得电商成为中国经济的新代表。但怎样描述、如何把握这种状况？恐怕是一个问题。用那套自以为站得住脚的方式来面对这个变化的世界，可能已经不管用了。当今之所以被称为“后人类时代”，意味着十九世纪以来形成的现代人文话语，遭遇了根本性挑战。我们的讨论是否能够重新建立起比较稳定的视野，并不是关键所在，因为大家都意识到，面临新挑战逐渐形成的视野，是一个正在生成的过程，它必须在对诸多变化进行描述、表达和把握的过程中才能浮现出来。我希望我们的讨论可以呈现出这个生成的过程，这才是“新”之所在。
冯象：
我关心两件事，一是人工智能对资本主义市场经济的历史性挑战；二是人和智能机器的关系，人机伦理如何建立，会面临哪些问题。
人工智能的广泛应用，一个后果，或者说明显的趋势，是就业停滞，财富高度集中，扩大了贫富鸿沟。这趋势如果掩饰不好——这是西方式法治最重要的一项意识形态功能——就会引发社会动荡。这事已有不少讨论，在部分发达国家甚至进入了政治议程。比如推行“全民基本收入”（universal basic income），是颇具社会主义色彩的实验，不论贫富，给人发一份“工资”，叫他别坠落到所谓有尊严的生活之下。瑞士投了票，未能通过。芬兰则试行一种抽签制度，抽到的每月几百欧元。加拿大和美国加州，也有挺认真的实验。
芬兰推行“全民基本收入”（universal basic income）的实验
这应该算是后人类时代的一景吧。机器人发展日新月异，眼看一大半工作要被它夺走。传统上搞自动化，机器只是取代体力劳动、蓝领职位，像东莞制造业的机器换人，还有建设中的上海洋山港（号称世界第一大港）的无人装卸。如今依托大数据技术，机器人可以取代看似复杂的脑力劳动了；医生、律师、法官、会计、新闻编辑、同声翻译，将来恐怕政府官员也不能幸免。高盛在华尔街，原本六百个交易员，现在裁了只剩下两个看管机器的。我说“看似复杂”，是因为这些（往往是高薪的）白领岗位所需的知识技能和工作经验，对于机器人，都是可以转化为数据跟算法的——都不难让老板/领导做出那个“理性人”管理者的决定：机器换人。
也许很快就会发生，失业大潮席卷诸多行业，而新增的工作岗位寥寥可数。这不是危言耸听。
我们现在的一些社会和经济政策，有点脱离实际。其基本估计，还是原教旨的资本主导的市场遇上了人口老龄化，劳动力不足，而非面对大失业及随之而来的社会福利“刚需”，这样一个相反的前景。这大约是基于一个假设：假设人总是能够控制智能技术，而技术可以放心地交给资本使用（名为赚钱）。但仔细想想，人工智能带来的巨大风险，例如大规模军事化、灾难性意外事故和个人隐私的消失，是资本主义的市场经济及其“主体”，即“经济理性人”根本无力应对的。
美国一家名叫 Miso Robotics 的初创公司，推出了专门制作汉堡的机器人。这款机器人搭载热量传感器、3D 摄像头等感知设备，能很自如地通过「观察」铁板上每样食物的煎烤状态，直到 Flippy 认为食物已经成熟，它再用机械臂把实物放到汉堡面包上
安顿失业人口，通过税制改革（如盖茨建议向机器人征税）提高社会福利，弥合贫富鸿沟，这些任务只能由国家来承担，统一计划，统一实施。市场神话在人工智能面前，将很快走到尽头。人工智能已经渗透到我们生活的方方面面，支配着太大的利益，经济的、文化的、政治的。因而其研发、运用和日常交易，都需要第三方即政府的有效监管。毕竟，商家可以合法地推脱许多社会责任，甚而钻法律的漏洞；但政府依法必须对人民负责，并接受公众的问责。
在此意义上，人工智能超越了私有产权和契约自由，而将政府规制即公法带进了私法领域，从而不可避免地“扰乱”市场经济。我把这一历史过程归结为市场向计划的靠拢，或私法向公法的演变。随着人工智能主宰我们的社会，不久的将来，所有私法问题都会转化为公法问题，即变成国家同企业、公众和政府以及政府各部门之间的法律关系。
历史地看，人机伦理的难点，不在机器智能的强弱，或抽象意义上的人机融合。因为，接纳人工智能的市场与市场主体（个人），不是抽象的存在，而是充斥着私利、欲望和价值诉求的。问题的核心，于是指向了社会经济制度的全盘改造。这意味着，又一次，我们将不得不回到哲学的根本，拿出勇气，发动对晚期资本主义的批判。而这一次，我想，化用一句霍金的名言，有可能是人类的最后一次自我批判。
戴锦华：
2015年6月18日，东京，马云（左）、孙正义（中）、郭台铭（右）和全球首个带感情的机器人pepper合影（来源：新京报）
冯象老师谈到北欧的最低基本收入保障，而我之前在华东师大讲到最近获奖的科幻小说《北京折叠》，我认为它不是一个反面乌托邦，它是一个不能用乌托邦或反乌托邦来讨论的理想社会范式。它写到是否启用机械化的垃圾处理系统，有一个情节好像是市长很英明地说就业是第一要务，所以不能启动自动的系统。在这儿，小说不期然地触及了是由行政力量还是由资本力量决定的问题。跟这个创作相对应的是马云和郭台铭联手开发机器人，如果把这个问题跟富士康工人连环跳放在一起，这就是资本给出很好的解决方案。把所有问题放在一起的时候，我觉得今天所面临的问题就是各个层面的，从政治层面、经济层面、社会趋向的层面，一直到我们所关注的文化层面。而我关注的主要在后人类主义的面向上，一方面是所谓机器人和流水线的绝对匹配，制造了从流水线上将被永远地放逐、取代、置换的人群。另一方面土地流转在制造着真正的无产阶级或无地农民，这些无地农民如果不再有流水线将他们接纳进去的话，他们将成为什么样的状态？因为中国的人口基数是思考中国问题的一个最重要和最基本的前提。我自己关注这个问题的另一些面向在于，我非常外行地同意人机大战事件其实还不是人工智能的挑战，因为严格意义上的IE，即有自我意识的人工智能还没有出现。但按照科幻小说的逻辑——因为我不了解其他的逻辑——人工智能的自我发展和自我生存的过程，就是自我学习和把成千上万的议题汇集到终端的能力……在某种意义上，真正意义上的人工智能离我们不远了。和这个过程相关的是，生物技术和数码技术的结合带来了另一种可能性，那就是人类的赛博格化近在咫尺，不过威胁还不会直接呈现为机器人统治人类，而是与资本控制、与整个社会分配的极化状态联系起来的非人的超人或非人类统治者的出现。甚至我觉得，好像所有的趋向都在告诉我们，二十一世纪之内人类可能挑战死亡，呈现出来的可能会是不死的赛博格和肉体凡胎的民众相互对立的状态。
2016年3月，在谷歌举办的一场拍卖会上，伦敦艺术家Memo Akten和谷歌人工智能共同完成的一组GCHQ画作拍出了当天最高价8000美元。图为Memo Akten和 Google机器人一同创作的《GCHQ》（来源：澎湃）
我对这个问题感兴趣的原因不是狭义的环保主义，但恐怕现在讨论所有的问题都不得不面临一个难题,那就是地球从来没有负载过这么多人类。我自己特别愚蠢地提出一个问题，我们究竟在社群还是在种群的意义上讨论人类？在种群的意义上也许没那么绝望，但是在社群、在共同生存下去的意义上前景如何呢？我本人可能更关注的是让穷人活下去，让绝大多数弱势和边缘群体活下去，可它的出路到底在哪儿？大概在这个意义上，我认为“后人类主义”这个概念变得非常重要，因为目前的状况已经不再是人道主义、人文主义等这些旧有概念所可能面对和可能回应的。
赵柔柔：
我想补充的是，后人类作为一种“现实”，更多是被召唤出来的。在某种程度上，我们目前对后人类现实的设想，有着大量科幻类叙事性作品所铺设的底色，而其中浸润着浓厚的人文主义味道。比如“人工智能”式的想象，从阿西莫夫的机器人系列至今，我们很难跳出想象人类主体的方式去想象机器人，而只能想象它们是更好或更强的人类。在这一点上，日本科幻小说《艾比斯之梦》很有意思，它里面讲机器人并不渴望成为人类，反而对人类的自恋想象表示不解，质问为什么人类会认为其人性、价值观和社会形态值得留恋。它最终描述了一个“温情脉脉”的画面：机器人社会以一种全新的规则组织，使用全新的逻辑、语言和价值观，它们为人类社群提供给养，像照顾阿尔兹海默症病人一样看护着人类。这部小说恰好打开了这样一个问题，即当后人类时代完成时，其断裂性并不在于人类的灭绝，而在于几百年来不断变动、自我调适的一套人文主义价值体系全面失效，同时社会组织形态、分配方式等也彻底变更。在这样的终点上，一切讨论都不再有意义，而今天之所以后人类议题变得紧迫，恰是因为我们正处在两点之间的流变过程中。在我看来，现在名为后人类主义的讨论总体裂解为两个思路，其一是抱持批判立场，促使这一进程容纳尽可能多的人文主义关怀，去关注被其所牺牲和吞噬的弱势人群和边缘人群，彰示其在快速革新的表面下掩盖的残酷现实；其二是带有一定的建构性，尝试把握这一进程的逻辑和运作方式，从中发掘旧有人文主义论域所无法容纳的、积极的东西，用它们来打开人文主义自身，形成新的视域，如拉图尔、哈拉维等就多少持这种态度。这两种同样重要的思路分享的基本前提是后人类现实迫在眉睫，不同在于如何应对。
《艾比斯之梦》
作 者：（日）山本弘
译 者：张智渊
出版社：新星出版社
出版年：2013年
利求同：
我和各位的背景不太一样，一直在商界工作，研究信息的使用，目睹人工智能一步步地规训我们的生活、学习、工作和休闲，把人“标准化”了。感触良多，隐私问题首当其冲。
好像不久前，人工智能离我们还很遥远；今天，仿佛一夜之间，它已经无处不在了，从无人驾驶汽车上路，到人机围棋赛，再到青岛港建成无人集装箱码头。人工智能的“突变”，得益于海量数据的收集挖掘和超算能力的提高。其中关键的一块，就是我们每一个人的隐私数据。没有我们每时每刻自愿交出的个人信息，那些高端算法就是“巧妇难为无米之炊”。自愿交出，是为了换取网络时代的生活便利。但我们失去的是什么？是自我和自控，乃至生存的能力。值不值得呢？如何回应，还有待于人类形成某种基本共识。
人类跟别的动物不同，一直在创造新工具，使自身能力得以延伸，无论仓颉造字，还是核能、风能、太阳能等新能源开发。因此我们习惯了，把工具的所能当作人的所能。但这一次，形势变了，工具发展了强大的智能和自学的“德性”。而且，机器人的学习路径可以不受设计者的限制，快速反馈自我修正；最终，其思维过程也不是人类能够理解的了。人工智能的失控，很可能发生在某位工程师的一念之差和无意识之间，或者机器人的某个自学瞬间的豁然领悟。可以预见，有了海量隐私数据为学习材料，人工智能将迅速获得“解剖”我们的能力，进而以机器的方式和思维来规制我们。这时，工具之所能就不再是人类能力的延伸，而是其否定了。这是我们必须面对的十分现实的一种可能。
人类从古到今，只生活在一种状态下，那就是，我们是地球上最聪明的物种。人如果造出比自己更聪明的工具，即智能超人的机器，这种生存状态就被颠覆了；而一旦颠覆，就不可逆转。这种颠覆，我认为，将始于我们自愿地放弃隐私。
王行坤：
关于人工智能，我的看法略有不同。几位老师可能持“强人工智能”或“超级人工智能”的观点，认为人工智能在将来可以取代人类。计算机在某些方面的确超过我们的智力，特别是在可以表征化、形式化的方面，可以超越我们的智能。但是很多方面它没有办法超越。从当代认识论新发展的角度来看——尤其是受到海德格尔现象学影响的具身认知或情境认知，我们的认知必须有一个有机的身体和外界互动，必须处在情境里面，才能实现认知，而不是脱离自己抽离出去成为所谓独立的主体去实现认知。即便我们可以模拟大脑，如果人工智能不具有可以和外部世界有机交换的身体，它只能进行抽象的运算，而不能面对复杂的外部世界或需要人际交往的人类世界，所以说在很多方面它并不具备替代或者超越人类的可能。而它不能超越人类的地方，恰恰是所谓人文性所在。比如说就业岗位，现在很多所谓的白领岗位机器都可以取代，例如速记员、初级的新闻记者，甚至某些文艺创作者，但这都是比较形式化、常规化的工作。但需要投入情感劳动或者复杂智识劳动的岗位是不能取代的，如原本属于家庭之内的各种照看劳动，或者深入报道性质的新闻写作。
有些乐观主义者认为技术性失业会造就新的职业，但新职业所造就的就业率会像以前那么高吗？答案是否定的。在就业率不可能像以前那么高的情况下，我们还应该追求一个充分就业的世界吗？在我看来，伴随着人工智能的发展恰恰提供一个前景，这个前景的保证就是无条件的基本收入，哈耶克和弗里德曼都提倡过无条件的基本收入，但左派、右派有什么区别呢？我理解的是，右派说有基本收入后就没有必要领国家福利了，这样就可以精简国家机关，而且他们的最终目的是让穷人家庭维持生计，然后进入他们理想的市场中。另外，因为国家没有必要对市场进行干涉，福利国家也就没有必要了。而左派认为，既提供基本收入，而且保持福利，给你提供纯粹无条件的基本收入，即便在你没有工作的时候也可以让你体面地生活，它很大程度上要打破工作伦理。在某种意义上，我们可以享受懒惰权，即便不想工作，也可以过体面的生活。而且它不是以家庭为单位的，妇女和儿童都应该获得绝对无条件的收入，在传统家庭中，妇女处于从属地位，现在如获得了无条件基本收入，妇女也可以获得解放。
智能机器人可以完成对人而言过于危险，或简单重复性任务，在生产、物流、测试、检验等方面有诸多应用，这些机器人堪称智能工人，未来工人的需求数量将越来越少。比如，2017年1月3日，富士康宣布生产线已部署4万个机器人（来源：今日头条）
一方面人工智能提供了这样一个可能，没有工作也没有关系，可以去享受体面的生活。但这不是什么“养懒汉”。它的结果就是人可以获得更多的闲暇，同时可以从事自己感兴趣或者擅长的活动—所谓工作或者说雇佣劳动就是让我们为了工资收入而不得不去做自己讨厌的事情（这是所谓的“说不的权利”）。这样便有可能实现马克思所说的人的全面发展，而劳动如果不是像傅立叶所说的那样会变为游戏，人类被迫劳动的时间也会大幅减少，必然王国的势力会越来越小，而自由王国的势力会越来越大。这样人们可以发展自己各种各样的感官能力，如“视、听、嗅、味、触、思维、观感、情感、意志、活动、爱”。在一个充满异化的社会中，人的感官体验无疑是被异化的，是动物化的片面的感官刺激。这种所谓人文主义应该意味着人类各方面情感和感官的全面发展，同时也可以创造更为丰富的社会财富；另一个方面则是人机互动，或者人被机器吸纳，人类的行为模式其实是与机器共同进化的，这并不是完全不好的，人类行为方式、人际交往的方式将来会变得更为多样化。所以，人工智能对于人类的发展提供了比较好的前景，并没有那么悲观。当然，如何实现基本收入，如何实现更为“民主自由”的人机互动，而不是让机器碾压排斥人类，是我们要面对的严峻问题。
冯象：
我觉得，行坤是否低估了人工智能的发展潜力？据报道，现在面部和肢体行为识别已经相当成熟，公安、交通等好些部门，作业都智能化了。感情识别的研究，像在麻省理工，也是大干快上，应该不难解决。因为机器并不需要拥有或分享人类的感情，它能识别分类，并学会回应就行。例如聊天机器人，它没感情，也不懂所谓同理心（empathy），可是那不妨碍大家跟微软开发的机器人姑娘聊天，从她那儿获得安慰，同她调侃、说脏话或宣泄愤懑。
人这个直立物种，既贪心，又容易满足；会进化，也会退化。网络时代的晚期资本主义，有些情感很泛滥，如色情和暴力，是一大产业。有些能力却退化了，人变得粗糙乏味，好莱坞化、麦当劳化。可以想见，人工智能再上一个台阶，未必达到通用（AGI），一刻也离不开网络终端的“低头族”便会退化到什么地步。到那时，机器人恐怕只需通晓几种夸张的感情表达，即可满足常人的精神和生理需求了。
吴子枫：
自图灵机以来人工智能就在持续发展，如今机器人战胜围棋世界冠军，人们突然有点担忧，好像我们就要进入后人类时代了。但我觉得真正值得担忧的不是这个，而是与生命政治密切关联的基因工程等生物技术。人工智能最多是从外部延伸人的某些器官或增强某些功能，而生物技术则从内部改造人。那种因为机器人越来越像人从而可能会变得与真人一样的幻觉，来自人们将自己的情感和欲望向机器的投射，这是古老的“拟人论”。但机器人依然是机器，而机器不是经济范畴，利用机器的方式和机器本身也完全是两码事。
2016年3月阿尔法围棋大战世界围棋冠军李世石，以4：1的总分战胜了人类（来源：腾讯）
更可怕的是生物技术。它从最基本的组织或结构方面来改变人，比如基因的植入或改写。这不是创造外在于主体的机器，而是创造主体本身，这个过程是不可逆的。如果有所谓后人类时代的话，应该是来自这里。
但无论是人工智能还是生物技术，要说有威胁的话，它们会比核武器、比原子弹更有威胁吗？真正可担忧的不是技术本身，而是技术使用上的失控。我们之所以担忧它会失控，不是因为它们本身有主体性，而是担忧人类作为主体不能控制自己的创造物。
因为人类作为一个整体，还不是一个可以决定自己会做什么、能做什么的真正的主体，因为还不存在一个普遍意志。真正的问题不在于人工智能和生物技术的发达，这些都属于生产力的范畴，真正的问题在于生产关系，它才决定着生产力发挥功能的方式和后果。在这个意义上，人类作为一个统一的物种，还处于“史前期”，还没有形成真正的命运共同体。
所以我觉得人文知识分子的责任，不是被科学技术的发展所吓倒然后反对它，而是要推动生产关系或社会组织形式尽快地跟上科技的发展，使得人类真正成为自己创造物的主体，可以控制自己的创造物。一旦人类社会变成一个人人平等的自由人联合体，那么无论是人工智能还是生物技术，就都会变成人类认识世界，改造世界，造福人类本身的强大手段。
本文原载于公众号“读书杂志”，感谢公众号授权海螺社区转载。观点仅代表作者本人，不代表本公号立场。
本期编辑
谭静怡